Техникум был организован в 1953 на базе трехгодичной Марийской республиканской агрошколы. Обучение велось на двух отделениях: «Механизация сельского хозяйства» и «Электрификация сельского хозяйства». В первый 1953/54 учебный год прием обучающихся на базе 7 классов составил всего 90 человек, были приняты две группы техников-механиков и одна группа техников-электриков.
В последующие десятилетия контингент возрос до 1244 студентов очного и 320 студентов заочного отделений, с приемом на очное отделение 430 и на заочное отделение 83 человека.
На основании Постановления Совета Министров РСФСР в 1968 году Марийский техникум механизации сельского хозяйства был объединен с колхозом им. Фрунзе Медведевского района Марийской АССР, и был создан Йошкар-Олинский совхоз-техникум. С этого времени к учебной базе добавилась производственная база, что значительно расширило возможности по улучшению практической подготовки студентов.
Участвуя в соцсоревнованиях тех лет, совхоз-техникум неоднократно был отмечен высокими наградами. Так, в 1988 году Йошкар-Олинский совхоз-техникум был награждён переходящим Красным знаменем ЦК КПСС, Совета Министров СССР, ВЦСПС и ЦК ВЛКСМ с занесением на Всесоюзную доску почёта на ВДНХ СССР как победитель во Всесоюзном социалистическом соревновании в 1988 году и добившийся наиболее высоких и устойчивых показателей на основе научно-технического прогресса.
На основании приказа Минсельхозпрода РФ в 1993 году Йошкар-Олинский совхоз-техникум был реорганизован в Йошкар-Олинский совхоз-колледж.
С образованием совхоза-колледжа начали вводить трёхступенчатое обучение студентов. Для желающих получить повышенный уровень подготовки была организована третья ступень обучения, что давало возможность выпускникам присваивать квалификацию старшего техника с правом поступления в профильные вузы по программам ускоренной подготовки.
В соответствии с приказом Минсельхозпрода РФ в 1999 года Йошкар-Олинский совхоз-колледж реорганизован в Государственное образовательное учреждение Йошкар-Олинский аграрный колледж. Продолжая развиваться в соответствии с требованиями рынка труда, в 2002 открывается специальность, а с 2005 года новое отделение – «Техническое обслуживание и ремонт автомобильного транспорта».
Распоряжением Правительства Российской Федерации от 09.06.2007г. №750-р, и приказом Федерального агентства по образованию от 29.06.2007г. №1166, а также приказом ректора от 31.03.2008г. №53-П ФГОУ СПО «Йошкар-Олинский аграрный колледж» реорганизован в форме присоединения в качестве структурного подразделения к государственному образовательному учреждению высшего профессионального образования «Марийский государственный технический университет» без образования юридического лица.
С 2016 года Йошкар-Олинский аграрный колледж вошел в состав Института механики и машиностроения Федерального государственного бюджетного образовательного учреждения высшего образования «Поволжский государственный технологический университет» (ФГБОУ ВО «ПГТУ»).
Меняется название колледжа, но направление остаётся прежним - подготовка высококвалифицированных кадров для отраслей промышленности и сельского хозяйства.